Những tàu chiến thuộc lớp Myōkō được xem là không ổn định và nhiều kinh nghiệm rút ra đã được áp dụng cải tiến cho lớp Takao. Chúng là những tàu chiến nhanh và mạnh mẽ, trang bị mười khẩu pháo 203 mm (8 inch) và bốn khẩu pháo 120 mm (4,7 inch), tám ống phóng ngư lôi và nhiều vũ khí phòng không hỗn hợp, một hỏa lực đủ mạnh để đối đầu với bất kỳ tàu tuần dương của mọi lực lượng hải quân trên thế giới.

Những chiếc trong lớp Takao được chấp thuận trong năm tài chính 1927 như một phần trong chiến lược của Hải quân Đế quốc Nhật Bản về một trận chiến quyết định. Chúng tạo nên xương sống cho lực lượng tấn công chiến đấu tầm xa. Atago được chế tạo tại Xưởng hải quân Kure gần Hiroshima, và giống như những con tàu chị em với nó, tên nó được đặt theo tên một ngọn núi: Núi Atago tọa lạc tại ngoại ô Kyoto. Atago được đặt lườn vào ngày 28 tháng 4 năm 1927, được hạ thủy vào ngày 16 tháng 6 năm 1930 và được đưa vào hoạt động ngày 30 tháng 3 năm 1932.